Aziz telah bertanding di kerusi Parlimen Persekutuan Tanah Melayu untuk Muar Dalam yang baru sahaja diwujudkan bagi mewakili masyarakat yang tinggal di sekitar Pagoh dan sekitarnya. Pada Pilihan raya umum Persekutuan Tanah Melayu 1959, beliau telah memenangi kerusi tersebut dan kekal hingga 1963.

Pada 1963, Persekutuan Tanah Melayu telah bertukar nama menjadi Malaysia dan beliau terus menjadi Ahli Parlimen Malaysia untuk Muar Dalam dalam Pilihan raya umum Malaysia 1964.[2]

Beliau sekali lagi menang dalam Pilihan raya umum Malaysia 1964 dan berkhidmat sehingga akhir penggal pada 1969 lalu.[3] Tempat beliau telah digantikan oleh Tun Syed Nasir Syed Ismail pada 1971 selepas Parlimen Malaysia dibubarkan pada 1969-1971 lalu.[4]